LivingRAG: Augmenting Graph RAG with Experience
LivingRAG:把可验证经验写入 Graph RAG 的在线复用框架
🧭 Graph RAG 在线经验复用 ★ 深度解读
State Key Laboratory of Virtual Reality Technology and Systems, Beihang University · Hangzhou Innovation Institute, Beihang University
提出可写经验存储的 Graph RAG 框架,复用激活图和推理摘要,在多跳 QA 上提精度并降生成 token
📌 工作参考价值(4 点)
- 在线搜索/推荐会遇到大量『同模板不同实体』的 query,如『A 和 B 哪个更省电/更快』。可借鉴 masked template 相似度匹配历史问题的推理脚手架,只把摘要交给生成模型,不把历史实体直接注入召回,避免污染当前结果。
- 把历史 query 在图上的实体激活向量作为可复用先验:用当前 query 语义相似度 + 当前 base activation 与历史稀疏 activation 的 cos 相似度选 top-K,再融合到初始实体激活。电商知识图谱检索里可用它做 query 级 warm start,避免新 query 冷启动重新探索图邻域。
- 经验写入一定要有质量门:先 novelty 去重,再对答案提取原子 claims 用 NLI 做证据支撑检查。业务 Agent 记忆/知识库写入可参考这种『先廉价 novelty、后昂贵 NLI』的顺序,既省推理成本又避免错误经验被放大。
- 成本收益要区分 prompt/completion:经验复用会增加约 3.5% prompt tokens,但能减少 22.7% completion tokens、总 API cost 降约 12.1%。在生成成本远高于输入成本的 LLM 应用中,这种 trade-off 更划算;同时要注意经验增长,需设计过期、剪枝或 time-decay,动态商品/价格/库存场景更关键。